Khabib Nurmagomedov sinh ngày 20 tháng 9 năm 1988 tại làng Sildi thuộc huyện Tsumadinsky trong khu vực nay là Dagestan, Nga,[1][2][3] trước khi chuyển đến thủ đô Makhachkala. Sau đó một thời gian ngắn, anh chuyển đến Kiev, Ukraina, nơi anh đã được đào tạo tại Combat Dobro. Anh là con thứ hai trong gia đình ba người con, trong đó có anh trai là Magomed và em gái là Amina. Gia đình của cha anh đã chuyển từ Sildi, huyện Tsumadinsky đến Kirovaul, nơi cha anh đã biến tầng trệt của tòa nhà hai tầng thành một phòng tập thể dục. Khabib lớn lên trong gia đình với anh chị em họ hàng của mình.[14] Sự quan tâm của anh dành cho võ thuật bắt đầu từ việc xem các học sinh tập luyện tại phòng tập thể dục.[15][16]

Giống như nhiều đứa trẻ khác ở Dagestan, anh bắt đầu chơi môn vật từ khi còn nhỏ; ở tuổi sáu dưới sự giám hộ của cha Abdulmanap Nurmagomedov.[17] Là một vận động viên thành công và cũng là một cựu chiến binh trong Quân đội, cha của ông Abdulmanap cũng đã đấu vật từ khi còn nhỏ trước khi được đào tạo judo và sambo trong quân đội.[18] Năm 2001, gia đình ông chuyển đến Machachkala.[19] Tại đây, vào năm 12 tuổi, anh đã luyện tập đấu vật, và từ năm 15 tuổi bắt đầu luyện tập judo. Sau khi bước sang tuổi 17, anh bắt đầu luyện tập sambo dưới sự hướng dẫn của cha mình.[20] Theo Khabib, quá trình chuyển đổi từ đấu vật sang judo rất khó khăn nhưng cha anh muốn anh làm quen với việc thi đấu trong trang phục Keikogi. Abdulmanap hiện đang là huấn luyện viên cao cấp cho đội tuyển Sambo tại Cộng hòa Dagestan, huấn luyện một số vận động viên trong thi đấu sambo và đấu vật tại Makhachkala, Nga.[18] Khabib thường xuyên tham gia vào các cuộc phiêu lưu trên đường phố khi còn trẻ, trước khi dồn sự chú ý của mình vào các môn võ thuật.[21]